今天起,ChatGPT 正式进入「4」时代。
就在刚刚,OpenAI 官宣推出 GPT-3.5 Turbo 的替代品——GPT-4o mini,顾名思义,这是 GPT-4o 更小参数量的简化版本。
即日起,ChatGPT 的免费用户、Plus 用户和 Team 用户都能够使用 GPT-4o mini。下周,企业版客户也将获得使用 GPT-4o mini 的权限。
OpenAI 官方表示,「这一变化符合我们让所有用户都能享受到 AI 技术好处的目标。」
主打低成本和快速响应能力的 GPT-4o mini 适用于多种应用场景。
例如,它可以支持需要连续或同时调用多个模型的应用程序(如同时调用多个 API),能够处理大量上下文信息(如完整的代码库或对话记录),以及通过快速实时的文本回复与客户进行互动(如客户服务聊天机器人)。
具体来说,GPT-4o mini 目前在 API 中提供了文本和图像处理功能,后续还将逐步增加对视频和音频的支持。
该模型能够处理多达 128K token 的长上下文,知识库截止日期为 2023 年 10 月份,并且对非英文内容的支持更友好。
ChatGPT 截图
从 OpenAI 分享的基准测试结果来看,GPT-4o mini 在推理基准结果 MMLU 上得分为 82%,而 Gemini Flash 为 77.9%,此前主打极高性价比的 Claude Haiku 为 73.8%。
GPT-4o mini 在数学推理和编程任务方面也同样表现出色,远超市场上的其他小型模型。
在 MGSM 数学推理能力基准测试中,GPT-4o mini 得分达到了 87.0%,而 Gemini Flash 的得分为 75.5%,Claude Haiku 的得分为 71.7%。
GPT-4o mini 在 HumanEval 基准测试中同样再次展现优势,得分达到 87.2%,而 Gemini Flash 的得分为 71.5%,Claude Haiku 的得分为 75.9%。
而在多模态推理 MMMU 中,GPT-4o mini 也表现出色,得分为 59.4%,而 Gemini Flash 得分为 56.1%,Claude Haiku 得分为 50.2%。
尤为显眼的是,GPT-3.5 Turbo 在这些基准测试中的得分均不如 GPT-4o mini,甚至可以说被全面碾压。此外,GPT-4o mini 在大模型盲测竞技场 LMSYS 中的表现也要优于 GPT-4T 01-25。
除了性能上的增强,GPT-4o mini 也化身价格屠夫,要给 API 市场带来小小的震撼。@ArtificialAnlys 在 X 上发布了一些模型的价格对比,足以看出其价位水准:
OpenAI 表示,GPT-4o mini 现在可在 Assistant API、Chat Completions API 和 Batch API 中作为文本和视觉模型使用。
GPT-4o mini 每100 万输入 token 价格为 15 美分,每 100 万输出 token 价格为 60 美分,比 GPT-3.5 Turbo 便宜超过 60%。
也就是说,GPT-4o mini 生成一本 2500 页的书,价格只需要 60 美分。
对于 GPT-4o mini 的到来,OpenAI CEO Sam Altman 在 X 平台发文感慨:
回顾 2022 年,当时世界上最先进的模型是 text-davinci-003。与现在的新模型相比,它的性能要差得多。而且,它的使用成本比现在的新模型高出 100 倍。
另外,考虑到模型的安全性问题,OpenAI 还邀请了 70 多位来自社会心理学和错误信息研究等领域的专家对 GPT-4o 的潜在风险进行了测试并根据反馈结果进行改进。
同时基于这些经验,OpenAI 还采用一些新的技术来增强对 GPT-4o mini 越狱攻击等防御能力,使其在大规模应用中更加安全,也更加稳定可靠。
今年以来,国内外掀起了新一轮大模型价格战,但没想到的是,OpenAI 也用响应速度更快、成本更低的 GPT-4o mini 模型加入了本就乱成一锅粥的战局。
Altman 更是将其形容为「towards intelligence too cheap to meter」。
作为 GPT-3.5 Turbo 的免费替代品,GPT-4o mini 在性能方面也没落下,甚至也比同量级的 Claude 3 Haiku 和 Gemini 1.5 Flash 还要好。 不少网友在体验过后也都给出了一致好评。
值得一提的是,关于我们心心念念的 GPT-4o 语音模式,Altman 也透露将在本月晚些时候到来,届时 APPSO 将第一时间跟进。
OpenAI开打价格战!GPT-4o最新变种价格骤降96%-97%
当地时间周四早晨,美国人工智能初创公司OpenAI宣布,正式上架价格显著下降的新一代入门级别人工智能“小模型”GPT-4o mini。
(来源:OpenAI)
OpenAI在今年5月发布公司迄今为止速度最快、综合能力最强,同样也是最贵的GPT-4o模型。最新上架的GPT-4o mini则是一个规格更小、更便宜的变体,通过兼具“能力和性价比”,拓展低价位市场的竞争。
根据OpenAI披露,GPT-4o mini的API价格将会是15美分/100万Tokens输入,以及60美分/100万Tokens输出。上下文窗口依然是12.8万个Tokens,知识截止日期为2023年10月。公司拒绝透露新模型的参数量大小,仅表示与市面上类似的AI小模型(Claude Haiku、 Gemini 1.5 Flash等)处于同一个级别。
作为对比,GPT-4o的百万Tokens输入/输出价格是5美元/15美元,之前的入门款模型GPT-3.5 Turbo定价是0.5美元/1.5美元。所以最新的“迷你模型”要比GPT-4o便宜了96%-97%,比起GPT-3.5 Turbo也要便宜60%-70%。正因如此,随着GPT-4o上架,GPT-3.5 Turbo的历史使命到此结束。
(OpenAI模型定价,来源:官网)
根据Artificial Analysis的统计,GPT-4o mini已经达到美国AI公司主流“小模型”里面价格最低的位置,比起Anthropic、谷歌的同类型竞品都要便宜一截。当然,即便是OpenAI,也无法与“来自东方的力量”比拼价格。例如知名私募幻方旗下DeepSeek-V2模型的Token输出价格,还能比GPT-4o mini便宜一半。
(价格比较,来源:Artificial Analysis)
在比较价格的同时,GPT-4o mini的能力也能拿得上台面。OpenAI介绍称,在MMLU(大模型多任务语言理解)测试中,GPT-4o mini的评分能够达到82%。目前在这项测试中,“刷分”最高的是谷歌的超大模型Gemini Ultra-1760B(90%),GPT-4o得分是88.7%。
而在“小模型”对照组中,Gemini 1.5 Flash得分是79%,而Claude 3 Haiku的分数是75%。虽然对于大模型测试基准的认可程度因人而异,但这个比较大概能体现出GPT-4o mini处于一个什么样的位置。
(来源:OpenAI)
OpenAI表示,GPT-4o mini在上线初期只能处理文字和图像生成任务,最终的目标是支持所有其他类型内容的处理。从周四开始,OpenAI将逐步向ChatGPT的免费/付费用户推送这个新模型,取代GPT-3.5 Turbo的位置,企业用户将在下周用上新产品。
有关这个新模型还有一个安全层面的变化。OpenAI披露,GPT-4o mini是公司首个使用全新安全策略—— “指令层次结构”的AI 模型。这种策略要求AI系统优先考虑一些指令——例如来自OpenAI公司的预设命令,从而使得恶意用户更难让这种工具执行“本不应该执行的操作”。
竞争压力巨大
虽然OpenAI嘴上喊着“让尽可能多的人访问AI”,但这个定价足以反映出AI云服务供应商之间的激烈竞争。
OpenAI 产品经理Olivier Godement介绍称,之所以价格便宜,是因为公司改进了模型结构、优化训练数据和训练计划,但他也强调GPT-4o mini在市面上常见的基准测试中优于竞品的同类“小”模型。
对于OpenAI来说,压力最大的挑战将来自于下周——根据多个消息源报道,Meta公司将在7月23日发布Llama 3开源大模型的最大参数量版本,据称拥有4000亿个参数。目前并不清楚这个模型的能力到底有多强。